ABSTRACT
Diante dos avanços recentes da inteligência artificial, a presente nota de conjuntura busca recolocar questões fundamentais que emergem nesse contexto. Deslocando-se tanto das leituras salvacionistas quanto apocalípticas, argumentamos que a perda do privilégio do excepcionalismo humano pode ser uma oportunidade para repensar a inteligência a partir de uma perspectiva relacional e co-produzida entre humanos e outros-que-humanos. Tal perspectiva, no entanto, deve ser acompanhada de um olhar atento às relações de poder que em grande medida definem os destinos da IA. Sobre esse aspecto, apontamos as implicações do modelo epistêmico e de negócios hegemônico da IA, um modelo preditivo-aceleracionista dominado por grandes empresas de tecnologia. Finalmente, destacamos alguns riscos envolvidos na inclusão de máquinas inteligentes no campo da saúde, bem como os perigos da subordinação de valores e direitos públicos a interesses comerciais, o que demanda uma atenção e um cuidado coletivos e permanentes na construção dos arranjos sociotécnicos e políticos de implementação da IA nesse campo
In the face of artificial intelligence recent advances, this note seeks to reassess fundamental questions that emerge in this context. Moving away from both salvationist and apocalyptic readings, we argue that the human exceptionalism privilege loss can be an opportunity to rethink intelligence from a relational and co-produced perspective between humans and other-than-humans. Such an angle, however, must be accompanied by a careful examination of the power relations that largely define the fate of AI. On this aspect, we reflect on the implications of the hegemonic epistemic and business model of AI, a predictive accelerationist one dominated by large technology companies. Lastly, we highlight the risks involved in the inclusion of intelligent machines in the fields of health and care, as well as the dangers of subordinating public values and rights to commercial interests, which demands attentive, collective and permanent care in the construction of sociotechnical and political arrangements for the implementation of AI in this field.
Ante los recientes avances de la inteligencia artificial, el presente informe busca plantear cuestiones fundamentales que surgen en este contexto. Alejándose tanto de las lecturas salvacionistas como apocalípticas, argumentamos que la pérdida del privilegio del excepcionalismo humano puede ser una oportunidad para repensar la inteligencia desde una perspectiva relacional y co-producida entre humanos y otros-que-humanos. Sin embargo, tal perspectiva debe ir acompañada de una mirada atenta a las relaciones de poder que en gran medida definen el destino de la IA. En este aspecto, señalamos las implicaciones del modelo epistémico y de negocios hegemónico de la IA, un modelo predictivo-aceleracionista dominado por grandes empresas tecnológicas. Por último, destacamos algunos riesgos de la inclusión de máquinas inteligentes en el campo de la salud, así como los peligros de subordinar valores y derechos públicos a intereses comerciales, lo cual requiere una atención y un cuidado colectivos y permanentes en la construcción de los ensamblajes sociotécnicos y políticos de implementación de la IA en este campo
Subject(s)
Humans , Artificial Intelligence , Technological Development , Research , Technology , OrganizationsABSTRACT
Este artigo discute o resultado da análise de 10 aplicativos móveis de autocuidado psicológico utilizados no Brasil, que denominamos PsiApps. A análise se desdobra em duas camadas: uma 'visível', que envolve os discursos dos próprios aplicativos para descrever os problemas que visam solucionar, suas promessas e seus métodos; outra 'invisível', que inclui formas automatizadas de coleta e compartilhamento de dados dos usuários pelos aplicativos. Veremos como a ênfase na individualidade e na autonomia manifesta na primeira camada torna opaca uma série de mediadores presentes na segunda camada, em grande parte invisíveis para o usuário. O contraste entre a centralidade da agência individual promovida pelos discursos dos PsiApps e o caráter relacional da infraestrutura e do ecossistema de dados que os integram evidenciam as contradições da autonomia ofertada por esses aplicativos.
This article discusses the result of the analysis of 10 psychological self-care mobile applications used in Brazil, which we call PsiApps. The analysis unfolds in two layers: one, 'visible', involves the discourses employed by the applications themselves to describe the problems they seek to solve, their promises and methods; the other, 'invisible', includes automated ways of collecting and sharing user data by the applications. We will see how the emphasis on individuality and autonomy manifested in the first layer makes opaque a series of mediators largely invisible to the user present in the second layer. The contrast between the centrality of individual agency promoted by the discourses of the PsiApps and the relational character of the infrastructure and data ecosystem that they integrate highlight the contradictions in the notion of autonomy offered by these applications.
Este artículo discute el resultado del análisis de 10 aplicaciones móviles de autocuidado psicológico utilizadas en Brasil, que llamamos PsiApps. El análisis se desarrolla en dos dimensiones: una 'visible', que involucra los discursos de las propias aplicaciones para describir los problemas que buscan resolver, sus promesas y métodos; otra 'invisible', que incluye formas automatizadas de recopilar y compartir datos de usuario por las aplicaciones. Veremos cómo el énfasis en la individualidad y la autonomía manifestado en la primera dimensión vuelve opacos una serie de mediadores en gran parte invisibles para el usuario presentes en la segunda dimensión. El contraste entre la centralidad de la agencia individual promovida por los discursos de los PsiApps y el carácter relacional de la infraestructura y el ecosistema de datos que integran manifiestan las diversas contradicciones de la autonomía que estas aplicaciones ofrecen.